たくさんあるBedrockアップデートをなんとか10分でお伝えするLT #regrowth_osaka
2024.12.12AWS re:Invent ふりかえり勉強会「クラスメソッド re:Growth 2024 大阪」
にて、「たくさんあるBedrockアップデートをなんとか10分でお伝えするLT」という登壇をしました。お越しくださった皆様、ありがとうございました！
re:Invent期間中から当日(2024/12/11)に至るまで、またここ1ヶ月ほどのいわゆるpre:Invent期間も含めて、Bedrockのアップデートをひととおりご紹介するLTです。本エントリではスライド内容とともに参考リンクを記載いたします。
基盤モデル
Amazon謹製の基盤モデルシリーズ Amazon Nova
- [アップデート] Amazon Novaシリーズモデルが登場しました #AWSreInvent | DevelopersIO
- 【新モデル！】Amazon Nova を試してみた #AWSreInvent | DevelopersIO
- 【アップデート】画像生成モデルのAmazon Nova Canvasが登場しました！ #AWSreInvent | DevelopersIO
- Amazon Bedrock Nova Reel で自分を動かしてみた #AWSreInvent | DevelopersIO
- [レポート][NEW LAUNCH] Practical generative AI using Amazon Nova #AIM398-NEW #AWSreInvent | DevelopersIO
Bedrockマーケットプレイス
Claude 3.5 Haikuが利用可能に
今後追加予定のモデル
Model Evaluation に LLM-as-a-judgeが追加
- Amazon Bedrock Model Evaluation now includes LLM-as-a-judge (Preview) - AWS
- New RAG evaluation and LLM-as-a-judge capabilities in Amazon Bedrock | AWS News Blog
RAG (Bedrock Knowledge Bases)
Bedrock Data Automation
- [新機能]Amazon Bedrock Data Automation (プレビュー)が登場しました #AWSreInvent | DevelopersIO
- Amazon Bedrockの新機能「Bedrock Data Automation (BDA)」を試してみた | DX支援・IT推進・AWS共同開発 株式会社トラスト
Bedrock Knowledge Basesがマルチモーダルデータに対応
- Amazon Bedrock Knowledge Bases now processes multimodal data - AWS
- [アップデート] Amazon Bedrock Knowledge bases で Amazon Bedrock Data Automation が使えるようになりました（プレビュー） #AWSreInvent | DevelopersIO
Bedrock Knowledge Basesが 構造化データの取り込みをサポート
Bedrock Knowledge BasesでKendra GenAI Indexがマネージド リトリーバーとして利⽤可能に
- Amazon Kendra GenAI Indexについて詳細を確認する #AWS - Qiita
- Amazon Bedrock knowledge base with an Amazon Kendra GenAI index を試してみる #AWSreInvent | DevelopersIO
- JAWS-UG 横浜の宇宙一早い Recap で Amazon Bedrock knowledge base with an Amazon Kendra GenAI index について話してきた #jawsug #jawsugyokohama #AWSreInvent | DevelopersIO
Bedrock Knowledge BasesがGraphRAGに対応
Rerank APIをサポート
- [アップデート] Amazon Bedrock が Rerank API をサポートしました #AWSreInvent | DevelopersIO
- [アップデート] Amazon BedrockにRerankモデルが追加されました #AWSreInvent | DevelopersIO
Bedrock Knowledge Bases がストリーミングレスポンスをサポート
Bedrock Knowledge Bases がカスタムコネクタとストリーミングデータの取り込みに対応
- [Amazon Bedrock] ナレッジベースの新機能「カスタムデータソース」と「直接取り込み (direct ingestion)」を試してみた | DevelopersIO
- [新機能]Amazon Bedrock Knowledge Basesに、カスタムコネクタとストリーミングデータの取り込みがサポートされました #AWSreInvent | DevelopersIO
Bedrock Knowledge Basesに自動生成クエリフィルター機能が登場
Bedrock Knowledge BasesでRAGの評価機能をサポート
- Amazon Bedrock Knowledge BasesでRAG評価機能（プレビュー）が使えるようになりました。 | DevelopersIO
- [新機能] Amazon Bedrock Knowledge BasesにRAG評価機能が追加されました(プレビュー版) #AWSreInvent | DevelopersIO
Bedrock Knowledge Basesでバイナリ埋め込みをサポート
Bedrock Knowledge Basesのクイック作成ベクターストアとしてAurora PostgreSQL Serverlessが選択可能に
こちらLTでは漏らしてしまっておりました🫠
Agents
Bedrock Agentsに複数AIエージェントの協調機能「multi-agent collaboration」が追加
- 【速報】Amazon Bedrockに複数AIエージェントの協調機能「multi-agent collaboration」が追加 〜複雑なタスクを分担して効率的に処理可能に〜 | DevelopersIO
- Amazon Bedrock のマルチエージェントコラボレーション機能の紹介 (プレビュー) | Amazon Web Services ブログ
Bedrock Agents InvokeInlineAgent API
- [新機能] Agents for Amazon Bedrock の InlineAgents を試してみた | DevelopersIO
- Announcing InlineAgents for Agents for Amazon Bedrock - AWS
- 【11/27 12:00〜 DAY2】今年のAWSアプデ総ざらい！ #しむそくRadio Special - YouTube
Bedrock Agentsがカスタムオーケストレーションをサポート
- Amazon Bedrock Agents now supports custom orchestration - AWS
- Getting started with Amazon Bedrock Agents custom orchestrator | AWS Machine Learning Blog
各種機能改善
他の大項目に分類できなかったものをこちらにまとめています。
Intelligent Prompt Routing
Prompt Caching
- 【速報】Amazon Bedrock プロンプトキャッシュがプレビューとして発表されました #AWSreInvent | DevelopersIO
- プライベートプレビューのリクエストはこちら↓から
latency-optimized inference
Prompt Management
プロンプト最適化
クロスリージョン推論が東京リージョンで利用可能に
Bedrock Flows
Bedrock IDE
こちらも漏らしていました…
- Amazon Bedrock IDE を使ってみる #AWSreInvent | DevelopersIO
- Announcing Amazon Bedrock IDE in preview as part of Amazon SageMaker Unified Studio - AWS
Guardrails
Bedrock Guardrailsが自動推論チェックをサポート
- 数学的に正しい自動推論チェックにより、LLM のハルシネーションによる事実ミスを防ぐ (プレビュー) | Amazon Web Services ブログ
- Amazon Bedrock Guardrailsの新しいセーフガードとして、自動推論チェック(Automated Reasoning checks)が発表されました #AWSreInvent | DevelopersIO
Bedrock Guardrailsがマルチモーダルな毒性検出をサポート
Bedrock Guardrails が価格を最大 85% 引き下げ
モデルのカスタマイズ
モデルの蒸留が利用可能に
- [アップデート] Amazon Bedrock Model Distillationがプレビューで発表されました！#AWSreInvent | DevelopersIO
- Amazon Bedrock Model Distillation (プレビュー) を使用して、より高速でコスト効率が高く、高精度なモデルを構築する | Amazon Web Services ブログ
Claude 3 Haikuがファインチューニングをサポート
- Amazon Bedrockでの Anthropic の Claude 3 Haiku のファインチューニングが一般提供に - AWS
- Amazon Bedrock における Anthropic の Claude 3 Haiku モデルのファインチューニングの一般提供を開始 | Amazon Web Services ブログ
まとめ
※ プラスで、漏らしていた以下があります。
- Bedrock Knowledge Basesのクイック作成ベクターストアとしてAurora PostgreSQL Serverlessが選択可能に
- Bedrock IDE
感想
正直自分でも「10分で話すなんて無理やろ…」と思ってました。が、LT本番では手元のストップウォッチによると9分50秒で完走できており、ちょっと信じられません。
参考情報
- AWS re:Invent 2024のAmazon Bedrockのアップデートを機能別にまとめてみた（一部マネコンの図示付き） #AWSreInvent | DevelopersIO
- AWS re:Invent 2024のAmazon Bedrock系アップデートを振り返る #AWSreInvent | DevelopersIO
- 【11/26 12:00〜 DAY1】今年のAWSアプデ総ざらい！ #しむそくRadio Special - YouTube
- 【11/27 12:00〜 DAY2】今年のAWSアプデ総ざらい！ #しむそくRadio Special - YouTube
- 【12/6 11:00〜 JST】ラスベガスから生中継！ AWS re:Invent2024 生成AIアップデート解説会 #しむそくRadio - YouTube
- 2024/11/25〜2024/12/1までのAWSアップデートを振り返ってみた #しむそく #しまがじ | しまがじ！
- 【re:Invent】2024/12/2〜2024/12/8のAWSアップデートを振り返ってみた #しむそく #しまがじ | しまがじ！
- [AWS Black Belt Online Seminar] AWS re:Invent 2024 速報 資料及び動画公開のご案内 | Amazon Web Services ブログ
- 週刊生成AI with AWS – 2024/11/18週 | Amazon Web Services ブログ
- 週刊生成AI with AWS – 2024/11/25週 | Amazon Web Services ブログ
- 週刊生成AI with AWS – re:Invent 2024特別号 (2024/12/2週) | Amazon Web Services ブログ
- Classmethod AI Talks(CATs) #7「AWS Generative AI Catch Up Talks vol.001」を公開しました。(Upgraded Claude 3.5/クロスリージョン推論が東京リージョンに登場/Prompt Management一般提供開始) #catalks | DevelopersIO
